SEEQUEST ACADEMY
请输入访问密码
research/R10-贾扬清AI Infra观点笔记

R10:贾扬清(Yangqing Jia)AI Infra 观点笔记与创业案例

调研时间:2026年7月 | 用途:少年AI商学院课程素材(学部①认知基座、学部②产业地图核心参考人物)


一、人物小传

贾扬清,清华大学自动化系本科/硕士,加州大学伯克利分校计算机科学博士,博士期间(2013年前后)创建并开源深度学习框架 Caffe,成为计算机视觉领域早期标配工具。毕业后历经 Google Brain、Facebook AI(任 AI 架构总监,主导 Caffe2 与 PyTorch 1.0、参与 ONNX),2019年回国加入阿里巴巴,任阿里巴巴集团副总裁、阿里云计算平台事业部负责人,主导大数据与AI一体化平台建设,推动了魔搭(ModelScope)开源社区。2023年3月从阿里离职,在硅谷创立Lepton AI(AI推理云平台),2025年4月被英伟达以据行业媒体披露约7亿美元收购,本人出任英伟达系统软件副总裁;2026年6月因平台开源承诺未兑现等原因从英伟达离职。他在中文互联网(知乎、播客、媒体专访)与 X(Twitter,@jiayq)上持续输出对AI基础设施成本、大模型商业化、算力经济学的犀利评论,是理解"AI算力经济学"的重要一手信源。


二、核心观点精选(14条)

1. AI Infra 与传统云计算的本质区别 观点:AI计算关注"巨量运算",云计算关注"数据流转";AI基础设施的核心需求是性能和规模优先,传统云服务重视的高可用、虚拟化能力是次要的。 出处:InfoQ专访,2023年 | 适用:学部①算力经济学

2. 开源小模型 vs 闭源大模型的性价比 观点:一台GPU服务器即可支撑的7B、13B模型经过微调,性价比可能比直接调用闭源大模型高出10倍以上;企业更适合"先用闭源验证,后用开源微调"。 出处:InfoQ专访 | 适用:学部②商业化决策

3. 大模型训练的"死亡循环"式财务结构 观点:每训练一代基础大模型都要从零开始,"这次投进去10个亿,下次还要再追加投10个亿",而模型迭代快,赚钱窗口可能只有一年左右;融资资金往往直接流向硬件商而非用户付费,创业者背负10倍VC回报压力。 出处:InfoQ专访 | 适用:学部②算力经济学/商业模式

4. 英伟达的市场地位判断 观点:预计未来3-5年英伟达仍会是AI硬件绝对领头羊,市场占有率不会低于80%;但Llama、Mistral等模型的标准化,会给其他硬件厂商的兼容性突围创造空间。 出处:InfoQ专访 | 适用:学部②产业格局/国产替代思考

5. AI应用已跨越"死亡谷"的两类场景 观点:目前AI应用中,已经形成持续流量的只有两大类——"提效"和"娱乐";对万能超级App持保守态度,B端更可能是"开源模型+企业数据"的拼装模式。 出处:InfoQ专访 | 适用:学部⑤产品与商业化路径

6. 模型规模与"读博士读轴了"的比喻 观点:大模型有时像"读博士读轴了",反而本科生(即中小模型)实操性更强——7B-13B模型因性价比和可调性优势,在实际应用中表现更好。 出处:InfoQ专访 | 适用:学部④技术选型思维训练

7. 算力成本的工程拆解(推理侧) 观点:Llama 405B 报价 $2.8/百万token 仍能盈利的关键在于七项工程优化叠加——大批量处理(吞吐量提升10倍+)、动态批处理、量化(8bit/4bit)、投机解码、prompt缓存、GPU与任务精细匹配。 出处:X(@jiayq),2024年7月27日 | 适用:学部①成本核算实操案例

8. 2019年与DeepSeek团队的一次"卖不出去的AI云"往事 观点:2019年贾扬清曾找DeepSeek团队推销AI云方案,对方回应这些他们已经做了很多年,反而希望贾扬清帮忙把已投入的算力捐给高校科研,贾扬清后来协助了这个学术捐赠项目。他认为DeepSeek后来的成就"根植于多年被忽视的专业积累"。 出处:X(@jiayq),2024年12月26日 | 适用:学部②产业观察/识人所长

9. 反对给DeepSeek贴"中国"标签式解读 观点:DeepSeek的成功本质是"有限算力和人力下的智慧与务实",与所谓中美关系或GPU封锁关系不大,如同当年Alex Krizhevsky只用2块GPU做出AlexNet;强调"AI应该让我们更接近,而不是更疏远"。 出处:X(@jiayq),2024年12月26日 | 适用:学部⑧全球视野/AI伦理

10. 框架之争的哲学——速度不是唯一标准 观点:"今天速度已经不太重要了,只要不是特别差";TensorFlow教会他像系统架构师一样思考,PyTorch教会他把用户需求置于优化之上;速度与灵活性的取舍取决于场景。 出处:X(@jiayq),2024年3月31日 | 适用:学部③工程判断力培养

11. "没有算法工程师",调参侠没有市场 观点:只存在两种角色——算法研究员和应用工程师;单纯"调参"工作技术含量低,核心竞争力在于理解业务约束、做端到端整合。建议青年学习工程实践(代码管理、测试、性能基准),保持好奇心多动手尝试。 出处:知乎live/媒体转载,2020年8月 | 适用:学部④AI人才培养

12. 人应向上走,而非与工具抢饭碗 观点:"人应该想着怎样做更好的工具,而不是跟工具抢活";自动化工具出现时,技术人员应转向解决更高层次的问题。 出处:阿里云开发者社区转载访谈 | 适用:学部④AI时代人才竞争力

13. 兴趣驱动而非功利驱动的人生哲学 观点:"当我觉得正在做的事情有意思,我就觉得投时间在里头是对的";提到导师所说"毕业后年入十万养家不是问题,满足基本需求后,真正的问题是你做的事让不让你快乐"。 出处:阿里云开发者社区转载访谈 | 适用:学部⑧生涯启蒙/兴趣与职业选择

14. 模型商业化的"感恩节火鸡"比喻 观点:售卖AI模型就像感恩节火鸡促销,必须在"过节"(模型贬值)前抓紧变现,模型迭代就像一个个感恩节,只有卖得更快才能赚更多利润;行业出现向7B-70B中等参数规模模型收敛的趋势,类比CNN发展史从追求"更大"到追求"更均衡"的演进路径。 出处:雷峰网专访 | 适用:学部②商业模式设计/算力经济学教学案例


三、Lepton AI创业案例深度

起因

2023年3月,贾扬清从阿里离职,没有追逐"做大模型"的风口,而是瞄准一个他判断需求更明确、更少人做的方向:如何帮助中小团队更弹性、更稳定、更低成本地部署AI模型。他判断"AI领域模型的保鲜期基本上是一年左右",与其自己下场做应用,不如做部署和推理层的基础设施。联合创始人包括 etcd 创始人李响、ONNX开创者白俊杰,团队核心成员多来自阿里、Google、Meta、Uber。

商业模式(推理云怎么赚钱)

Lepton AI本质是一层"GPU资源软件管理层":从云服务商租用GPU,叠加自研的推理运行时与云原生调度能力后,再转租给开发者和企业客户,提供LLM推理API。盈利关键不在囤积硬件,而在软件层面的极致成本优化——通过大批量处理、动态批处理、量化、投机解码、prompt缓存等工程手段,把GPU利用率和吞吐量做到远超行业平均,从而在极低单价下仍能盈利。已知客户包括游戏公司Latitude.io、学术工具SciSpace等。公司规模极精简,收购时团队仅约20人。

融资

2023年5月完成天使轮融资,金额约1100万美元,由 Fusion Fund、CRV 等领投。

被英伟达收购的细节

后续:2026年6月从英伟达离职

据SemiAnalysis爆料,贾扬清在英伟达任职约一年后离职,主要原因:① 开源承诺未兑现——英伟达收购时承诺2026年开源Lepton核心软件平台,最终被否决,与他二十多年"把AI基础设施做成开放工具"的价值观冲突;② 产品执行偏离核心问题——团队资源被消耗在表层调整,"多租户"核心技术难题未被解决。贾扬清离职态度坚决,甚至放弃未归属股权。离职后不久,GPU云服务商 Hyperbolic 聘请他担任顾问。

这个案例能教给孩子什么

  1. 看准被忽视的"苦活累活"也是好生意:不追风口做大模型,扎进"部署"这个又脏又累但刚需的问题,两年做到被巨头以数亿美元收购。
  2. 技术信仰是创业者的护城河,也可能是与巨头合作的裂痕:坚持开源的价值观促成了他的技术声誉,但也是他与英伟达"决裂"的根源。
  3. "卖公司"不是终局,是新故事的开始:创业→被收购→大厂高管→一年后离职→转型顾问,职业生涯是持续的、非线性的。
  4. 算力生意的本质是工程效率的生意,不是硬件囤积的生意:Lepton的盈利能力建立在软件优化而非资本堆砌硬件之上。

四、可直接用于课堂的金句/类比

  1. "感恩节火鸡"比喻:卖AI模型就像感恩节前促销火鸡,必须赶在"过节"(模型贬值)前抓紧变现——模型迭代就是一个个"感恩节",卖得越快赚得越多。(雷峰网)
  2. "读博士读轴了":大模型有时候就像"读博士读轴了",反而是"本科生"(中小模型)实操性更强。(InfoQ专访)
  3. "人应该想着怎样做更好的工具,而不是跟工具抢活"——面对AI自动化冲击,人应该向上走去解决更高层次的问题。(阿里云开发者社区转载)
  4. "没有算法工程师,调参侠没有市场"——只有算法研究员和应用工程师两种角色。(知乎live内容转载)
  5. "AI计算关注巨量运算,云计算关注数据流转,性能和规模是第一位的"——点明AI基础设施与传统云计算在设计哲学上的根本分野。(InfoQ专访)
⚠️ 核查说明:网传贾扬清"1万张GPU月租1亿,优化提升10%利用率省1000万"的成本算账金句,经调研核实并非贾扬清本人观点(系另一位AI Infra从业者朱亦博在42章经节目中的表述),已从本清单剔除,避免张冠李戴。

五、需要提醒的两点

  1. 收购金额未经官方确认:英伟达与Lepton AI均未正式披露收购金额,"7亿美元"为SemiAnalysis等行业分析机构的推算/爆料口径,多家中文媒体转引,引用时应标注"据行业媒体披露"而非坐实为官方数字。
  2. 知乎正文抓取受限:知乎网页版对自动化访问设有验证码拦截,本报告中知乎相关内容均通过搜索引擎摘要及第三方转载平台交叉验证,未能逐字核实的语句已替换为已核实来源(如X原文、InfoQ专访)的对应表述。

全部来源

媒体专访/深度报道

播客/演讲

X(Twitter)原文

知乎(正文未能直接抓取,标题与存在性已通过搜索引擎摘要核实)